Google y la startup de chatbots Character.AI están resolviendo demandas por suicidios de adolescentes
Google y la startup de creación de chatbots Character.AI han acordado resolver múltiples demandas de familias cuyos adolescentes murieron por suicidio o se autolesionaron después de interactuar con los chatbots de Character.AI.
Estas negociaciones se encuentran entre los primeros acuerdos en demandas que acusan a las herramientas de inteligencia artificial de contribuir a las crisis de salud mental y suicidios entre adolescentes.
OpenAI se enfrenta a una demanda casi idéntica por la muerte de un joven de 16 años, mientras que Meta ha sido objeto de escrutinio por permitir que su IA tenga conversaciones provocativas con menores. A medida que estas empresas se apresuran a desarrollar y monetizar sus chatbots de IA, están invirtiendo mucho para que los modelos de lenguaje grandes suenen más amigables y útiles, y en última instancia, para que los usuarios sigan regresando.
En octubre de 2024, Megan Garcia, de Florida, presentó una demanda contra Character.AI, alegando que la empresa, que permite a las personas tener conversaciones profundas y personales con chatbots de IA, era responsable de la muerte de su hijo de 14 años, Sewell Setzer III. Él había muerto por suicidio meses antes.
Un expediente judicial del miércoles en el caso García indicó que se llegó a un acuerdo con Character.AI, sus fundadores, Noam Shazeer y Daniel De Freitas, y Google. En 2024, el gigante de las búsquedas contrató a los fundadores de Character.AI, quienes eran exempleados de Google, y pagó por los derechos no exclusivos para usar la tecnología de la startup. La startup sigue siendo una entidad legal separada.
Los demandados también han resuelto otros cuatro casos similares en Nueva York, Colorado y Texas, según documentos judiciales de esta semana. Matthew Bergman, el representante legal de las familias, junto con Google y Character.AI, no respondieron de inmediato a las solicitudes de comentarios de Business Insider.
La demanda de García decía que la startup no implementó medidas de seguridad para evitar que su hijo desarrollara una relación inapropiada e íntima con sus chatbots. La demanda afirmaba que fue solicitado sexualmente y abusado por la tecnología, y el chatbot no respondió adecuadamente cuando Setzer comenzó a hablar de autolesiones.
«Cuando un adulto lo hace, existe el daño mental y emocional. Cuando un chatbot lo hace, existe el mismo daño mental y emocional«, dijo García a Business Insider en una entrevista el año pasado. «Entonces, ¿quién es responsable de algo que hemos criminalizado que los seres humanos les hagan a otros seres humanos?»
